Năm 383, bất chấp sự phản đối của nhiều văn thần, Phù Kiên cất đại quân đi đánh Đông Tấn để thống nhất Trung Quốc. Ông chủ quan kiêu hãnh nói rằng, quân Tần chỉ cầm ném roi ngựa xuống sông Trường Giang là đủ lấp sông rồi. Ông sai em là tướng tiên phong là Phù Dung cầm 27 vạn quân đi trước, đánh chiếm được Thọ Xuân.

phía đông Tấn, sau khi Hoàn Ôn mất, Tạ An nắm quyền. Tạ An tỏ ra là người mềm mỏng hơn Hoàn Ôn, không hiếp chế vua Tấn. Khi quân Tần kéo đến, Tạ An tiến cử cháu là Tạ Huyền với Tấn Hiếu Vũ Đế Tư Mã Diệu làm tướng, mang 8 vạn quân ra đóng ở Lạc Giản đón quân Tần. Tạ Huyền đóng quân cách Lạc Giản 25 dặm, ngại thế quân Tần mạnh không dám tiến.

Khi hai bên sắp đối trận, Phù Kiên đã mắc sai lầm là tin tưởng vào hàng tướng người Hán của Đông Tấn mới hàng là Chu Tự, sai Tự đi dụ hàng Đông Tấn. Chu Tự còn nhớ Đông Tấn, nên mang hết tình hình Tiền Tần tiết lộ cho Tạ Huyền, khuyên nên chủ động đánh quân Tần trước khi đại quân 100 vạn kịp họp đông đủ. Tự còn hẹn làm nội ứng cho quân Tấn.

Lúc đó Phù Dung đang án ngữ sông Phì. Tạ Huyền theo lời Chu Tự, bèn sai Lưu Lao Chi mang 5.000 quân đánh úp quân tiên phong của Phù Dung một trận rồi rút nhanh. Đồng thời đại quân Tấn của Tạ Huyền hai đường thuỷ bộ cũng tiến lên áp sát sông Phì.

Tạ Huyền bèn sai người nói với Phù Dung xin quân Tần tạm rút để quân Tấn qua sông quyết chiến. Phù Kiên cũng muốn lợi dụng quân Tấn qua một nửa sẽ đánh úp nên đồng ý rút lui một đoạn.

Đúng hẹn, quân Tấn sang sông. Trong đêm tối, quân Tần đang chờ nghênh địch, Chu Tự cầm một cánh quân, bỗng hô to:

Quân Tần đa sắc tộc, vốn bị cưỡng bức ra trận cho Phù Kiên, nghe nói thua trận liền quay đầu nhất loạt bỏ chạy, tiên phong Phù Dung không thể ngăn lại được. Tạ Huyền thấy quân Tần chạy, thừa cơ thúc quân Tấn truy kích, giết chết rất nhiều. Phù Dung bị tử trận trong loạn quân.

100 vạn quân Tần đại bại bỏ chạy về phía bắc, Phù Kiên về tới Lạc Dương thu thập tàn quân chỉ còn vài chục vạn.

Thất bại ở trận Phì Thủy là bước ngoặt đối với sự tồn vong nước Tiền Tần. Sai lầm nam tiến, không theo lời dặn của Vương Mãnh khiến Phù Kiên phải trả giá đắt với hậu quả của đại bại này.